Thời trẻ, ông có tài văn kiêm võ, giỏi Kinh Thi, Kinh Thư, thạo cả cưỡi ngựa bắn cung. Hoàng Phủ Tung được cử làm hiếu liêm, mậu tài. Thái úy Trần Phồn, Đại tướng quân Đậu Vũ nghe tiếng ông đều mời ông làm quan, nhưng ông không nhận lời.

Sau đó Hán Linh Đế mời ông làm chức Lang trung[3], sau chuyển làm Huyện lệnh Bá Lăng và huyện Lâm Phần; rồi được điều làm Nghị lang, Thái thú Bắc Địa[4].

Dẹp Khăn Vàng

Tháng 3 năm 184, ba anh em Trương Giác, Trương Bảo, Trương Lương cầm đầu cuộc khởi nghĩa Khăn Vàng, thủ hạ có hàng chục vạn người[5]. Nhiều châu quận nhà Hán bị đánh chiếm. Trước tình hình nguy cấp, Hoàng Phủ Tung kiến nghị Hán Linh Đế bỏ lệnh cấm và xá tội cho các lực lượng quần chúng bị xem là "bè đảng" trong xã hội để giảm sự bất bình của họ; đồng thời thưởng tiền cho tướng sĩ để khuyến khích họ ra trận lập công. Kiến nghị của ông được Linh Đế chấp thuận. Linh Đế thăng ông làm Trung lang tướng, cùng Chu Tuấn và Lư Thực đi đánh dẹp.

Hoàng Phủ Tung và Chu Tuấn điều động tập hợp kị binh 5 hiệu gồm có: Hiệu úy Đồn kị, Việt kị, Bộ binh, Trường thủy, Tạ thanh là quân túc vệ trong Bắc quân là quân thường trực chủ lực của trung ương. Mặt khác, ông chiêu mộ thêm binh sĩ, tổng cộng được 40 vạn người[6].

Hoàng Phủ Tung và Chu Tuấn mỗi người chia nhau suất lĩnh một cánh quân ra đánh quân Khăn Vàng ở Dĩnh Xuyên, bị tướng Khăn Vàng là Ba Tài đánh bại. Ông lui về giữ Trường Xã[7]. Quân Khăn Vàng kéo tới bao vây. Nhiều tướng sĩ dưới quyền lo lắng, ông lựa cách trấn an họ rằng quân Khăn Vàng có sai lầm, có thể đánh được[6].

Hoàng Phủ Tung biết nhược điểm quân Khăn Vàng phần đông là nông dân mới vào quân, chưa quen chiến đấu chuyên nghiệp, chỉ tác chiến ban ngày tới đêm thì ngủ. Một nhược điểm nữa của quân Khăn Vàng được Hoàng Phủ Tung chú trọng khai thác là chủ tướng Ba Tài không biết tìm chỗ đóng quân hợp lý, lại chọn nơi đồng cỏ khô đóng đồn trại. Vì vậy ông quyết định đánh tập kích vào ban đêm khi quân Khăn Vàng đang nghỉ ngơi không kịp trở tay. Nhân đêm đó có gió, Hoàng Phủ Tung dùng hỏa công đánh vào doanh trại địch, đồng cỏ khô cháy dữ dội, quân Khăn Vàng bị phá tan, thiệt hại hàng vạn người[8]. Nhờ lập công trận này, ông được phong làm Đô hương hầu.

Ba Tài mang tàn quân bỏ chạy tới Dương Hoắc. Hoàng Phủ Tung và Chu Tuấn thừa thắng mang quân đuổi theo. Hoàng Phủ Tung tiếp tục đánh thắng quân Khăn Vàng tại Nhữ Nam, nước Trần, truy kích Ba Tài. Sau đó ông đánh tướng Khăn Vàng khác là Bành Thoát, liên tục thắng lợi, đoạt lại được 3 quận.

Tháng 8 năm đó, Hoàng Phủ Tung đụng độ tướng Khăn Vàng là Bốc Dĩ ở Thương Đình. Ông phá tan quân Bốc Dĩ, giết hơn 7000 người[9].

Ở mặt trận phía bắc, Trương Giác chiếm giữ Quảng Tông[10], đánh bại tướng nhà Hán là Đổng Trác. Hán Linh Đế phái Hoàng Phủ Tung tới thay Đổng Trác. Lúc ông tới nơi thì Trương Giác đã lâm bệnh mất, em là Trương Lương lên cầm quân.

Hoàng Phủ Tung giữ vững trận thế, chờ khi quân Trương Lương lơi lỏng mới bất ngờ tập kích quân Khăn Vàng lúc rạng sáng khiến quân địch không kịp trở tay, giết 7 vạn quân địch; có hơn 5 vạn quân Khăn Vàng nhảy xuống sông chết đuối[8]. Ông thiêu hủy hơn 3 vạn xe quân nhu của quân Khăn Vàng. Quân chủ lực Khăn Vàng tan vỡ. Hoàng Phủ Tung tìm đến mộ Trương Giác, sai quân băm xác, chặt đầu mang về Lạc Dương dâng lên Hán Linh Đế.

Tháng 11 năm 184, một người em khác của Trương Giác là Trương Bảo chạy về Hạ Khúc Dương[11]. Hoàng Phủ Tung mang quân đuổi theo, lệnh cho Thái thú Cự Lộc là Phùng Dực cùng hợp lực truy kích. Ông đại phá quân Khăn Vàng ở Khúc Dương, bắt được Trương Bảo mang chém. Số quân Khăn Vàng bị giết hàng chục vạn người, được chôn chung ở phía nam thành Hạ Khúc Dương thành ngôi mộ rất lớn (kinh quan)[8].

Cả ba anh em Trương Giác đều chết, lực lượng Khăn Vàng bị dẹp. Nhờ có công, Hoàng Phủ Tung được thăng làm Tả quân Kỵ tướng quân, Châu mục Ký châu, tước Hòe Lý hầu, thực ấp 8000 hộ.

Thăng trầm trong hoạn lộ

Lĩnh chức ở Ký châu, Hoàng Phủ Tung tâu lên Hán Linh Đế xin miễn 1 năm thuế cho dân Ký châu để nuôi dưỡng người nghèo đói. Linh Đế đồng ý. Vì việc này, ông được nhân dân trong vùng ca ngợi[12]:

Do có công trấn áp Khăn Vàng, uy danh của Hoàng Phủ Tung rất cao. Lúc đó triều đình nhà Hán ngày càng đổ nát. Diêm Trung người Hán Dương khuyên ông nên nắm cơ hội đó tự lập làm hoàng đế nhưng ông không nghe theo[12].

Cuối năm 184, ở Hoàng Trung[13], Bắc Cung Bá Ngọc và Tiền Linh Khương khởi binh chống nhà Hán, tôn Biện Chương và Hàn Toại làm tướng. Quân Hàn Toại, Biện Chương đánh giết Hiệu úy hộ Khương là Linh Chủy và Thái thú Kim Thành là Trần Ý.

Năm 185, Biện Chương và Hàn Toại mang quân Tây châu uy hiếp khu vực Tam Phụ gần Trường An. Hoàng Phủ Tung được lệnh từ Ký châu về, cùng Đổng Trác đi dẹp loạn. Hoàng Phủ Tung đang đánh nhau với quân Hàn Toại chưa phân thắng bại, hoạn quan Trương Nhượng (một trong Thập thường thị) đi thị sát, đòi Hoàng Phủ Tung hối lộ 50 triệu quan tiền[14]. Hoàng Phủ Tung không cho. Trương Nhượng bèn về vu cáo với Linh Đế rằng Phủ Tung đánh Khăn Vàng không hề có công lao, lại lãng phí tiền công quỹ. Hán Linh Đế tin lời hoạn quan, bèn hạ lệnh thu hồi ấn Tả xa kỵ tướng quân của ông, tước hết thực ấp 8000 hộ, đổi phong làm Đô hương hầu. Lực lượng của Biện Chương, Hàn Toại vì vậy cát cứ ở Tây châu không bị dẹp. Còn Đổng Trác lại được phong làm Phá lỗ tướng quân[15].

Giải vây Trần Thương

Năm 188, Hàn Toại và Mã Đằng sai Vương Quốc kéo quân đến bao vây Trần Thương. Tình hình nguy cấp, Hán Linh Đế lại vội vã trọng dụng Hoàng Phủ Tung, phong ông làm Tả tướng quân, cùng Tiền tướng quân Đổng Trác mang rất nhiều binh mã tới giải vây[16]. Đổng Trác chủ trương ra quân đánh địch mau nhưng Hoàng Phủ Tung không theo, cho rằng thành Trần Thương bền chắc, chỉ cần cố thủ chờ thời cơ. Vương Quốc đánh hơn 80 ngày không hạ được, cuối cùng phải giải vây rút lui vào đầu năm 189.

Hoàng Phủ Tung mang quân truy kích, Đổng Trác can ngăn cho rằng quân địch đông không nên đuổi. Hoàng Phủ Tung quả quyết quân Tây châu chỉ mải rút lui không phòng bị nên không đáng sợ, bèn tự mình đi đầu, sai Đổng Trác đi đoạn hậu. Kết quả Hoàng Phủ Tung liên tiếp thắng lợi, đại phá quân Vương Quốc, giết hơn 1 vạn người. Đổng Trác xấu hổ và tiếc nuối cơ hội lập công nên trong lòng thù hận ông[17].